Tháng 9 năm 198, Tào Tháo đích thân cùng Lưu Bị mang quân tới đánh Từ châu. Tháng 10 năm đó quân Tào đến Bành Thành, giết chết tướng giữ thành là Hầu Giai. Sau đó Tào Tháo tiến đến Hạ Bì, Trần Cung khuyên Lã Bố mang quân ra đón đánh địch nhưng ông không nghe theo, muốn đợi quân Tào đến thành mới giao chiến.

Quân Tào kéo tới Hạ Bì, Lã Bố mang quân kỵ ra nghênh chiến. Tào Tháo bắt sống được viên mãnh tướng của Lã Bố là Thành Quảng, Lã Bố thua bị mấy trận phải rút vào thành Hạ Bì cố thủ và sai người cầu cứu Viên Thuật và Trương Dương.

Tào Tháo bèn gửi thư dụ hàng ông. Lã Bố muốn hàng, nhưng Trần Cung cho rằng không nên, và hiến kế chia quân chống lại: Lã Bố mang một đạo quân ra ngoài làm thế ỷ dốc với thành, quân Tào đánh đâu thì hai bên cùng liên hợp chống lại. Lã Bố nghe có lý bèn chuẩn bị ra thành, nhưng nghe lời vợ can không nên đi lại thay đổi ý định không đi nữa, chỉ sai Hứa Dĩ, Vương Khải đi cầu cứu viện binh của Viên Thuật lần nữa.

Viên Thuật ra điều kiện Lã Bố phải mang con gái tới Thọ Xuân theo lời hứa hôn trước đây thì mới phát binh. Ông bèn lấy bông và áo giáp bọc cho con gái, đưa lên mình ngựa và sai quân nhân lúc đêm tối vượt vòng vây đi đến chỗ Viên Thuật.

Sang năm 199, do quân Tào vây đánh nhiều tháng không hạ được thành, bắt đầu mệt mỏi nên Tào Tháo muốn lui quân nhưng Tuân Úc và Quách Gia khuyên nên đánh gấp. Tào Tháo theo kế, sai quân khơi sông Nghi Thủy và sông Tứ Thủy đổ nước vào thành Hạ Bì. Thành ngập nước, Lã Bố nguy khốn phải lui dần vào trong rồi rút lên cố thủ ở lầu Bạch Môn, thế cùng lực kiệt. Viện binh của Viên Thuật vẫn không thấy đến.

Trong bước đường cùng, Lã Bố đã mang vợ mình đến chỗ Quan Vũ - tướng của Lưu Bị - để lấy lòng, hy vọng Quan Vũ nói giúp với Tào Tháo. Quan Vũ mang vợ Lã Bố đến cho Tào Tháo, Tào ưng ý và giữ lại chỗ mình,[12] nhưng vẫn vây đánh thành.

Đúng lúc đó Trương Dương ở Hà Nội phát binh cứu Lã Bố. Nhưng Dương bị thủ hạ là Dương Xú giết chết để hàng Tào Tháo.

Lã Bố nguy cấp quá, bèn lên lầu thành nói với thủ hạ của Tào Tháo rằng hãy nới vòng vây để mình ra thành thú tội với Tào Tháo. Tuy nhiên sau đó Trần Đăng một mực can không nên hàng Tào, Lã Bố lại nghe theo.

Thủ hạ của Lã Bố là Hầu Thành bị trách phạt nên oán hận. Tháng 2 năm 199, Hầu Thành bất ngờ bắt trói Trần Cung và Cao Thuận mang nộp và mở cửa ra hàng Tào Tháo. Tào Tháo cùng Lưu Bị thúc quân vào. Lã Bố trên lầu Bạch Môn bị dồn vào đường cùng, nói với các thủ hạ hãy chặt đầu mình nộp cho Tào Tháo lấy thưởng, nhưng các thủ hạ của ông không nỡ làm.[13] Quân Tào tiến lên lầu bắt trói được Lã Bố.

Lã Bố muốn xin Tào Tháo cho mình đầu hàng, Tào Tháo phân vân nên hỏi lại Lưu Bị. Nhưng Lưu Bị khuyên Tào Tháo nên giết ông vì ông là người vong ân bội nghĩa, từng trở mặt giết Đinh Nguyên và Đổng Trác. Tào Tháo nghe theo, liền sai quân sĩ mang Lã Bố xuống lầu thắt cổ giết chết ông, khi ấy Lã Bố 40 tuổi.

Các tướng dưới quyền ông là Cao Thuận, Trần Cung cùng bị chém, chỉ có Trương Liêu và Tạng Bá đầu hàng Tào Tháo và sau trở thành danh tướng nhà Tào Ngụy.